Hiệu năng của một máy bơm nhiệt phụ thuộc rất nhiều vào những đặc tính của nguồn cung cấp nhiệt (nguồn nhiệt). Một nguồn nhiệt lý tưởng cho máy bơm nhiệt phải có nhiệt độ cao và ổn định trong mùa lạnh, sẵn có, số lượng nhiều, không gây ăn mòn hay ô nhiễm, có những tính chất nhiệt vật lý phù hợp, và yêu cầu chi phí đầu tư ban đầu cũng như chi phí bảo dưỡng và hoạt động thấp. Trong hầu hết các trường hợp, sự sẵn có của nguồn nhiệt là một chìa khoá quyết định tới việc lắp đặt và sử dụng máy bơm nhiệt. Bảng dưới đây thể hiện những nguồn nhiệt thường được sử dụng hiện nay:[3]

Không khí thông thường, khí xả, đất và nước ngầm được sử dụng cho các máy bơm nhiệt công suất và phạm vi sử dụng nhỏ, trong khi nước lấy từ biển, sông, hồ.., đá và nước xả được sử dụng trong quy mô lớn.

Thông thường người ta dựa vào 3 nguồn nhiệt chính lấy từ không khí, nước và đất để phân loại các máy bơm nhiệt:

Không khí

Đây là một nguồn nhiệt miễn phí và được sử dụng rộng rãi, đồng thời là nguồn nhiệt phổ biến nhất trong các máy bơm nhiệt. Nhiệt lượng do máy bơm nhiệt dạng này cung cấp có thể sử dụng để làm ấm trực tiếp không gian bên trong, hoặc cung cấp cho các lò sưởi và các bình nước nóng.[4] Loại máy bơm sử dụng nguồn nhiệt lấy từ không khí (máy bơm nhiệt-khí) có ưu điểm là lắp đặt dễ dàng, chi phí rẻ hơn các loại máy bơm khác, thích hợp để thay thế các loại lò sưởi điện thông thường.[5]

• Khí thải: Khí thải cũng là một nguồn nhiệt được sử dụng rộng rãi trong các máy bơm ở các khu căn hộ và khu thương mại. Máy bơm thu nhiệt lượng từ hệ thống quạt gió để cung cấp cho hệ thống nước nóng hoặc hệ thống sưởi. Một vài loại máy bơm nhiệt được thiết kế để có thể sử dụng đồng thời 2 nguồn nhiệt từ không khí và khí thải.

Nước

• Nước ngầm: nước ngầm thường đạt được nhiệt độ ổn định từ 4 tới 10 °C ở nhiều khu vực. Các máy bơm nhiệt sử dụng nguồn nước có ưu điểm là lắp đặt dễ và hoạt động ổn định, hiệu suất tương đối. Tuy vậy cần phải tìm được nguồn nước thích hợp ở gần nơi lắp đặt, chỉ thích hợp với các lò sưởi nhiệt độ thấp hoặc các hệ thống sưởi cho sàn nhà, thêm vào đó khi lắp đặt cần lưu ý các vấn đề về chống ô nhiễm nguồn nước và ô nhiễm khu vực đất xung quanh.[6]
• Nước sông, hồ: theo lý thuyết đây là những nguồn cung cấp nhiệt tốt, nhưng có một hạn chế lớn là nhiệt độ vào mùa đông thường thấp (0 °C ở các nước ôn đới), và cần thiết kế một hệ thống chống đông lạnh hơi nước.
• Nước biển: đây là một nguồn cung nhiệt rất tốt nếu đáp ứng được một số điều kiện cần thiết, thường được sử dụng cho những máy bơm cỡ vừa và lớn, trong công nghiệp. Ở độ sâu từ 25 tới 50 m, nhiệt độ nước biển đạt ổn định (từ 5-8 °C), k gây nên những vấn đề về đóng băng hơi nước. Việc lắp đặt hệ thống máy bơm nhiệt cần lưu ý tới việc chống ăn mòn cho các đường ống dẫn nhiệt có thể gây ô nhiễm cho môi trường nước biển.
• Nước xả: thường có nhiệt độ cao và ổn định trong suốt các khoảng thời gian trong năm. Một vài ví dụ là nước xả từ các kênh hay các đường ống thoát nước (đã hoặc chưa qua xử lý), nước thải công nghiệp, nước thải từ các nhà máy điện, điện lạnh... Một trong những trở ngại trong việc sử dụng nguồn nhiệt này cho các khu căn hộ và thương mại là khoảng cách từ những nơi này tới các nguồn nước xả, do các khu công nghiệp thường được bố trí ở ngoại ô, xa khu dân cư. Tuy vậy với các máy bơm nhiệt dùng trong công nghiệp, nó ngược lại không phải là trở ngại mà còn là một thuận lợi cho phép tiết kiệm năng lượng tiêu thụ trong công nghiệp.

Đất

Mỗi ngày, ánh nắng mặt trời truyền năng lượng xuống Trái đất và được lưu trữ lại một lượng đáng kể trong lòng đất. Máy bơm nhiệt sử dụng nguồn năng lượng này được gọi là máy bơm địa-nhiệt, có ưu điểm là tận dụng được nguồn nhiệt năng tự nhiên có sẵn trong lòng đất của mỗi công trình, không chịu ảnh hưởng bởi nhiệt độ môi trường xung quanh (do nhiệt lượng trong lòng đất thường ổn định) nhưng chi phí lắp đặt khá cao. Khi lắp đặt máy bơm địa-nhiệt, có hai cách bố trí hệ thống thu dẫn nhiệt là: theo chiều ngang (đặt sâu khoảng 0,6 tới 1,2m so với mặt đất, và chiếm một diện tích lớn, thường được đặt trong sân vườn nhà), và theo chiều dọc (không yêu cầu nơi lắp đặt phải có sân vườn nhưng cần đào sâu từ 80 tới 120m).[4]